該解決方案有何用途?
該解決方案幫助您在華為雲上快速部署單機(jī)版、高可用版Dify LLM應(yīng)用開(kāi)發(fā)平臺(tái),同時(shí)支持將在Dify應(yīng)用開(kāi)發(fā)平臺(tái)創(chuàng)建的的文檔知識庫(kù)掛載華為雲對(duì)象存儲(chǔ)服務(wù) OBS桶。Dify是一款開(kāi)源的大語言模型(LLM)應(yīng)用開(kāi)發(fā)平臺(tái)。它融合了後端即服務(wù)(Backend as Service)和LLMOps的理念,使開(kāi)發(fā)者可以快速搭建生產(chǎn)級(jí)的生成式AI應(yīng)用。
方案架構(gòu)
該解決方案基於雲容器引擎 CCE幫助您快速部署高可用Dify LLM應(yīng)用開(kāi)發(fā)平臺(tái)。

快速搭建Dify-LLM應(yīng)用開(kāi)發(fā)平臺(tái)
版本:3.0.0
上次更新日期:2025年4月
來(lái)源:由華為雲構(gòu)建
部署:預計(jì)20分鐘
卸載:預計(jì)10分鐘
架構(gòu)描述
雲伺服器單機(jī)部署:
1. 創(chuàng)建一臺(tái)華為雲Flexus雲伺服器X實(shí)例,用於搭建Dify-LLM應(yīng)用開(kāi)發(fā)平臺(tái)
2. 創(chuàng)建一個(gè)彈性公網(wǎng)IP EIP並關(guān)聯(lián)FlexusX實(shí)例,提供訪(fǎng)問(wèn)公網(wǎng)和被公網(wǎng)訪(fǎng)問(wèn)能力
3. 創(chuàng)建一個(gè)安全組,通過(guò)配置安全組規(guī)則,為雲伺服器提供安全防護(hù)
CCE容器高可用部署:
1. 創(chuàng)建三個(gè)彈性公網(wǎng)IP EIP,提供訪(fǎng)問(wèn)公網(wǎng)和被公網(wǎng)訪(fǎng)問(wèn)能力
2. 創(chuàng)建一個(gè)彈性負(fù)載均衡 ELB,並綁定EIP,將訪(fǎng)問(wèn)流量自動(dòng)分發(fā)到不同後端服務(wù),擴展應(yīng)用系統(tǒng)對(duì)外的服務(wù)能力,實(shí)現(xiàn)強(qiáng)大的應(yīng)用容錯性能
3. 創(chuàng)建一個(gè)NAT網(wǎng)關(guān) NAT,並綁定EIP,配置SNAT規(guī)則,提供安全可靠的公網(wǎng)NAT網(wǎng)關(guān)和私網(wǎng)NAT網(wǎng)關(guān)服務(wù),保護(hù)私有網(wǎng)絡(luò)信息不對(duì)外暴露
4. 創(chuàng)建三臺(tái)FlexusX實(shí)例,用於安裝部署Dify5個(gè)核心插件
5. 創(chuàng)建一個(gè)雲容器引擎 CCE Turbo集群,創(chuàng)建節(jié)點(diǎn)池並將三臺(tái)FlexusX實(shí)例納管為集群的Node節(jié)點(diǎn)
6. 創(chuàng)建一臺(tái)FlexusX實(shí)例,用於部署Embedding(bge-m3)及Reranker(bge-reranker-v2-m3)模型
7. 使用對(duì)象存儲(chǔ)服務(wù) OBS,用於將Dify的知識庫(kù)掛載在對(duì)象存儲(chǔ)服務(wù) OBS桶上
8. 創(chuàng)建一個(gè)分布式緩存服務(wù)Redis®*版,兼容Redis,為用戶(hù)提供高性能、低成本NoSQL資料庫(kù),同時(shí)數(shù)據(jù)流轉(zhuǎn)過(guò)程中數(shù)據(jù)的一致性
9. 創(chuàng)建一個(gè)雲資料庫(kù) RDS for PostgreSQL實(shí)例,主備分區(qū)部署,具備跨可用區(qū)故障容災的能力
10. 創(chuàng)建一個(gè)雲搜索服務(wù) CSS OpenSearch集群,提供在線(xiàn)分布式搜索及語義搜索等功能
11. 創(chuàng)建四個(gè)安全組,通過(guò)配置安全組規(guī)則,為雲伺服器提供安全防護(hù)
架構(gòu)描述
雲伺服器單機(jī)部署:
1. 創(chuàng)建一臺(tái)華為雲Flexus雲伺服器X實(shí)例,用於搭建Dify-LLM應(yīng)用開(kāi)發(fā)平臺(tái)
2. 創(chuàng)建一個(gè)彈性公網(wǎng)IP EIP並關(guān)聯(lián)華為雲Flexus雲伺服器X實(shí)例,提供訪(fǎng)問(wèn)公網(wǎng)和被公網(wǎng)訪(fǎng)問(wèn)能力
3. 創(chuàng)建一個(gè)安全組,通過(guò)配置安全組規(guī)則,為雲伺服器提供安全防護(hù)
CCE容器高可用部署:
1. 創(chuàng)建三個(gè)彈性公網(wǎng)IP EIP,提供訪(fǎng)問(wèn)公網(wǎng)和被公網(wǎng)訪(fǎng)問(wèn)能力
2. 創(chuàng)建一個(gè)彈性負(fù)載均衡 ELB,並綁定EIP,將訪(fǎng)問(wèn)流量自動(dòng)分發(fā)到不同後端服務(wù),擴展應(yīng)用系統(tǒng)對(duì)外的服務(wù)能力,實(shí)現(xiàn)強(qiáng)大的應(yīng)用容錯性能
3. 創(chuàng)建一個(gè)NAT網(wǎng)關(guān) NAT,並綁定EIP,配置SNAT規(guī)則,提供安全可靠的公網(wǎng)NAT網(wǎng)關(guān)和私網(wǎng)NAT網(wǎng)關(guān)服務(wù),保護(hù)私有網(wǎng)絡(luò)信息不對(duì)外暴露
4. 創(chuàng)建三臺(tái)FlexusX實(shí)例,用於安裝部署Dify5個(gè)核心插件
5. 創(chuàng)建一個(gè)雲容器引擎 CCE Turbo集群,創(chuàng)建節(jié)點(diǎn)池並將三臺(tái)FlexusX實(shí)例納管為集群的Node節(jié)點(diǎn)
6. 創(chuàng)建一臺(tái)FlexusX實(shí)例,用於部署Embedding(bge-m3)及Reranker(bge-reranker-v2-m3)模型
7. 使用對(duì)象存儲(chǔ)服務(wù) OBS,用於將Dify的知識庫(kù)掛載在對(duì)象存儲(chǔ)服務(wù) OBS桶上
8. 創(chuàng)建一個(gè)分布式緩存服務(wù)Redis®*版,兼容Redis,為用戶(hù)提供高性能、低成本NoSQL資料庫(kù),同時(shí)數(shù)據(jù)流轉(zhuǎn)過(guò)程中數(shù)據(jù)的一致性
9. 創(chuàng)建一個(gè)雲資料庫(kù) RDS for PostgreSQL實(shí)例,主備分區(qū)部署,具備跨可用區(qū)故障容災的能力
10. 創(chuàng)建一個(gè)雲搜索服務(wù) CSS OpenSearch集群,提供在線(xiàn)分布式搜索及語義搜索等功能
11. 創(chuàng)建四個(gè)安全組,通過(guò)配置安全組規(guī)則,為雲伺服器提供安全防護(hù)